Convolutional Neural Network

Ein Convolutional Neural Network (CNN oder ConvNet), zu Deutsch etwa „faltendes neuronales Netzwerk“, ist ein künstliches neuronales Netz. Es handelt sich um ein von biologischen Prozessen inspiriertes Konzept im Bereich des maschinellen Lernens^[1]. Convolutional Neural Networks finden Anwendung in zahlreichen Technologien der künstlichen Intelligenz, vornehmlich bei der maschinellen Verarbeitung von Bild- oder Audiodaten.

Die CNN-Architektur wurde von Kunihiko Fukushima unter dem Namen Neocognitron eingeführt.^[2][3] Alex Waibels CNN namens TDNN (1987) wurde durch Backpropagation trainiert und erzielte Bewegungsinvarianz.^[4] Auch Yann LeCun publizierte wichtige Beiträge zu CNNs.^[5][6]

1. ↑ Masakazu Matsugu, Katsuhiko Mori, Yusuke Mitari, Yuji Kaneda: Subject independent facial expression recognition with robust face detection using a convolutional neural network. In: Neural Networks. Band 16, Nr. 5, 2003, S. 555–559, doi:10.1016/S0893-6080(03)00115-1 (Online [PDF; abgerufen am 28. Mai 2017]). 
2. ↑ Kunihiko Fukushima: Neocognitron: A Self-organizing Neural Network Model for a Mechanism of Pattern Recognition Unaffected by Shift in Position. In: Biological Cybernetics. Band 36, Nr. 4, 1980, S. 193–202, doi:10.1007/BF00344251 (Online [PDF]). 
3. ↑ Jürgen Schmidhuber: Deep Learning in Neural Networks: An Overview. In: Neural Networks. Band 61, 2015, S. 85–117, doi:10.1016/j.neunet.2014.09.003, arxiv:1404.7828. 
4. ↑ Alex Waibel: Phoneme Recognition Using Time-Delay Neural Networks. Meeting of the Institute of Electrical, Information and Communication Engineers (IEICE), Tokyo, Japan, 1987. 1987 (englisch). 
5. ↑ Y. LeCun, B. Boser, J. S. Denker, D. Henderson, R. E. Howard, W. Hubbard, L. D. Jackel, Backpropagation Applied to Handwritten Zip Code Recognition; AT&T Bell Laboratories, 1989
6. ↑ Yann LeCun, Leon Bottou, Yoshua Bengio, Patrick Haffner: Gradient-based Learning Applied to Document Recognition. In: Proceedings of the IEEE. 1998 (lecun.com [PDF]).